Những chiếc SU-122 đầu tiên được phân vào các trung đội pháo tự hành 1433 và 1434.Mỗi trung đội này gồm 4 chiếc SU-122(hai khẩu đội pháo) và 4 chiếc SU-76.Trong các trung đội pháo thời bấy giờ, dòng pháo tự hành SU-76 vẫn được chọn làm tăng chỉ huy.Về sau, có kế hoạch phân 30 khẩu pháo tự hành mỗi trung đội, kèm theo một sư đoàn thiết giáp.

Vào tháng 1/1943, trung đội 1433 và 1434 được gửi đến mặt trận Volkhov, gần Leningrad và được nhập chung lại với sư đoàn số 54.Vào ngày 14/1, khẩu đội SU-122 lần đầu hoạt động tại Smierdny.Để có thể hoạt động một cách an toàn và có hiệu quả, SU-122 phải tác xạ cách các loại tăng chiến đấu từ 400–600 m, nhưng đôi khi khoảng cách này rút ngắn lại là từ 200–300 m.

Sự phối hợp giữa SU-76 và SU-122 trên chiến trường ban đầu được cho là một giải pháp hữu hiệu nhưng về sau quân đội Liên Xô đã ghi nhận được sự phối hợp này là rất tai hại.Vì thế trung đội pháo được phân lại, một trung đội chỉ được phép có hai khẩu đội PTHCT SU-76 và ba khẩu đội PTHCT SU-122, tổng cộng là hơn 20 khẩu pháo tự hành.Vào tháng 4, sự phân chia trong các trung đội pháo tiếp tục được chia lại, lần này khẩu đội PTHCT SU-76 và khẩu đội PTHCT SU-122 được tách ra riêng biệt với nhau.

Một trung đội PTHCT thường thường có khoảng bốn khẩu đội pháo tự hành và mỗi khẩu đội gồm bốn chiếc SU-122.Ngoài ra, mỗi trung đội còn có một vài chiếc tăng chỉ huy T-34 và xe bọc thép BA-64.Cách phân này được giữ đến tận năm 1944 khi các loại pháo tự hành mới ra đời thay thế cho SU-122 như SU-152, ISU-122, SU-85 và ISU-152.

Pháo tự hành SU-122 được dùng vào để phòng vệ các chiến tuyến.Loại đạn 122 mm HE mà SU-122 sử dụng có thể thổi tung được cả tháp pháo của Tiger-I.Tuy nhiên một số loại pháo tự hành hạng nặng của Đức Quốc xã có lớp giáp trước lên đến 200 mm thì SU-122 không thể xuyên được giáp từ mọi khoảng cách.Vào tháng 5/1943, loại đạn BP-460A HEAT mới được trang bị cho SU-122.

Có ít nhất một chiếc SU-122 đã bị quân đội Đức bắt được.

Một số lượng nhỏ SU-122 còn sót lại sau thế chiến II.Nhưng hiện tại chỉ còn lại một chiếc duy nhất tại bảo tàng Kubinka.